Phạm Văn Đồng là Cố vấn Ban chấp hành Trung ương Đảng Cộng sản Việt Nam từ tháng 12 năm 1986 đến 1997. Ông cùng Tổng Bí thư Nguyễn Văn Linh và Thủ tướng Đỗ Mười đã tham gia cuộc gặp không chính thức với lãnh đạo Trung Quốc tại Thành Đô tháng 9 năm 1990 nhằm bình thường hóa mối quan hệ giữa hai nước sau hơn 10 năm căng thẳng và xung đột.

Ngày 21 tháng 8 năm 1998, thủ tướng Phan Văn Khải ký quyết định số 746/QĐ – TTg bổ nhiệm ông làm chủ tịch danh dự Hội đồng Quốc gia Chỉ đạo Biên soạn Từ điển bách khoa Việt Nam

Ông đã được tặng thưởng Huân chương Sao Vàng của Việt Nam và nhiều huân chương khác của Liên Xô, Lào, Campuchia, Cuba, Bulgaria, Ba Lan và Mông Cổ.

Từ đầu thập niên 80 thế kỷ XX, do bị teo dây thần kinh đáy mắt nên mắt ông bắt đầu mờ dần.[11]

Phạm Văn Đồng mất tại Hà Nội ngày 29 tháng 4 năm 2000, hưởng thọ 94 tuổi.